Thời kỳ đầu kỷ nguyên Rattanakosin cuối thế kỷ 18, Phumi đã đưa dân từ Mueang Nakhon Thai, thuộc Phitsanulok đến lập thị xã mới ở khu vực này. Ông Phumi là lãnh đảo thị xã và nộp cống vua Rama I. Vua đã bổ nhiệm ông là Muen Aram Kamhaeng và sau đó là Luang Phichit Songkhram, thống đốc đầu tiên của Khon San.

Dưới thời vua Rama V, thị xã này bị hạ xuống thành một tambon của Phu Khiao. Ngày 16 tháng 8 năm 1958, tambon này đã được tách khỏi Phu Khiao và thành một tiểu huyện (King Amphoe), lúc đó có ba tambon Khon San, Nun Khun và Thung Phra.[1] Đơn vị này đã chính thức thành huyện ngày 10 tháng 12 năm 1959.[2]